Wie wäre es, wenn KI-Modelle einfach doppelt so schnell auf Ihrer Hardware liefen – ohne zusätzliche Anschaffungskosten, ohne Nachteile. Multi Token Prediction (MTP) verspricht diesen Performance-Gewinn. Wie stark er ausfällt, hängt von mehreren Faktoren ab, unter anderem vom verwendeten Modell. In unseren Versuchen haben vier LLMs zwischen 25 und über 250 Prozent mehr Token pro Sekunde generiert als ohne MTP.